内容安全 | 英国《在线安全法案》中文译本及评析

编者按：

公号君打算新开一个研究系列——关于内容安全的国际立法和实践。原因在于内容安全已经成为广义的网络空间安全的一部分了。此前，本公号发表过的相关文章如下：

今天和大家分享的是英国的《在线安全法案》。2022年3月17日，英国议会接受了其《在线安全法案》的提交。《在线安全法案》中规定了一系列与互联网信息内容本身有关的安全规则，并赋予英国议会权力来由此批准哪些类型的信息属于 “合法但有害”的内容而需要平台立即处理。《在线安全法案》是英国政府努力建立一个对用户更安全的新数字时代的里程碑，它要求科技巨头在合规的情况下承担内容审查责任，将保护儿童免受色情等有害内容的影响，它会限制人们接触那些有害的内容、同时保护言论自由。法案的实施，会使互联网用户离更安全的网络环境又近一步。

本篇文章首发于公号君参与的北理工团队公众号【 数据治理与竞争法研究
】——【【成果发布】英国《在线安全法案》：全球第一部在线内容安全法案独家中文译本及评析】推荐大家关注该公众号。

法案主要内容亮点

《在线安全法案》将要求社交媒体平台、搜索引擎和其他允许人们发布自己内容的应用程序和（自媒体）网站，承担其保护儿童、打击非法活动、并维护其已声明的条款与条件的责任。英国对此负责的监管机构OFCOM（通信管理局）将有权对不遵守法律的公司进行罚款，额度最高可达其全球年营业额的10%，并以此迫使他们改进其做法，并对那些不符合规定的网站做出进一步的禁止性规定。

该法案生效后，还意味着如果涉案公司未能达成OFCOM(通信管理局)的信息合规要求，其高管现在可能在法案成为生效法律后的两个月内面临起诉或入狱的结果，而非之前草案所规定的“两年时间”。法案中还增加了一系列新的罪名，如规定范围内公司的高级管理人员如果销毁证据、不参加或在与通讯管理局的面谈中提供虚假信息，以及在监管机构进入公司办公室时阻挠其工作，将承担刑事责任。

该法案于3月18日在英国下议院提出。这是其通过议会成为法律的第一步，并由此开启了一个在线问责的新时代。在此之前，自2021年5月首次公布草案以来，政府已经大大加强了该法案。自法案草案以来的变化包括：

⚫将社交媒体和搜索引擎上的付费诈骗广告纳入在打击网络诈骗的重大举措中；

⚫确保所有发布或承载色情内容的网站，包括商业网站，都进行严格的检查，以确保用户年满18岁或以上；

⚫增加新的措施，以打击匿名骗子，让人们对谁能与他们联系以及他们在网上看到什么有更多的控制；

⚫使公司更快主动地处理最有害的非法内容和犯罪活动；

⚫通过该法案将网络炫耀定为犯罪。

2

议会确认对该法案还有进一步改进

1. 有关高级管理人员的刑事责任

该法案赋予OFCOM通信管理局权力：可以要求科技公司提供信息和数据，包括他们的算法在选择和显示内容方面的作用，以便它能够评估他们如何保护用户免受伤害。通信管理局将能够进入被调查公司的场所，访问数据和设备，要求采访公司员工，并要求公司接受外部评估，了解他们如何保护用户的安全。该法案最初起草时规定，如果大型网络平台的高级管理人员未能确保其公司准确、及时地遵守通信管理局的信息要求，将被追究刑事责任。

在法案草案中，这项权力被推迟，因此在成为法律后至少两年内，通信管理局都不能使用。但是3月17日提出的法案将这一期限缩短为两个月，以便从一开始就加强对不法行为的惩罚。

该法案还增加了与信息有关的额外罪行，以加强对公司及其高级管理人员提供虚假或不完整信息的威慑力。它们将适用于《在线安全法案》范围内的每一家公司。它们是：

⚫属于范围内的公司和/或雇员压制、销毁或篡改通信管理局要求的信息的罪行。

⚫在通信管理局行使其进入、审计和检查的权力时，不遵守、阻碍或拖延通信管理局，或提供虚假信息的罪行。

⚫雇员不参加面试或在面试中提供虚假信息的罪行。

违反上述这些规定可能导致最高两年的监禁或罚款。

OFCOM通信管理局必须敏感地对待从公司收集的信息。例如，除非有严格的豁免规定，否则它不能在未经同意的情况下分享或公布数据，而且它有责任确保其权力得到相应的使用。

2. 有关对“合法但有害”内容要求的修改

根据法案草案，“第一类”公司为覆盖面最广的最大网络平台（类似欧盟的超大型平台企业，或中国的），包括最受欢迎的社交媒体平台--必须处理对成年人有害的内容，但这些内容必须低于刑事犯罪的门槛。

“第一类公司”将有责任对其服务中可能出现的对成年人的法律伤害类型进行风险评估。他们必须在服务条款中明确规定他们将如何处理这些内容，并一致执行这些条款。如果公司打算删除、限制或允许特定类型的内容，他们必须明确告知用户。

其所商定的“合法但有害”的内容类别将在二级立法中列出，并须经议会两院批准。社交媒体平台将只被要求对二级立法中规定的优先法律危害采取行动，这意味着关于哪些类型的内容是有害的决定不会被授权给私人公司或由互联网高管随意决定。这也将消除社交媒体公司对于“访问量”的过度热爱，因为合法的内容也会让人感到不快或被冒犯因而也有被删除的可能性，即使这些内容没有被他们预先声明的条款和条件所禁止，诸如此类情况：去年，TalkRadio因“未指明的”违规行为而被YouTube强制下线，而且不清楚其如何违反其条款和条件。

此举将有助于维护言论自由，确保人们仍然能够在网上进行具有挑战性和争议性的讨论。如果未来出现更多合法但有害的优先内容，DCMS国务大臣有权通过二级立法增加这些内容的类别。公司将被要求向通信管理局报告新出现的有害内容。

3. 有关“积极主动的技术”

平台可能需要使用内容审核、用户分析和行为识别的工具来保护其用户。法案中增加了额外的条款，允许通信管理局在业务守则中对这些主动技术的使用设定预期，并在必要时迫使公司使用更好、更有效的工具。

公司将需要证明他们正在使用正确的工具、透明的工具来解决危害，而且他们开发的任何技术都符合监管机构要求的准确性和有效性标准。通信管理局将无法建议将这些工具应用于私人信息或合法但有害的内容。

4. 重点：有关“儿童性虐待信息的报告义务”

一项新的要求将意味着公司必须向国家犯罪署报告他们在其平台上发现的儿童性剥削和虐待内容。CSEA的报告要求将取代英国现有的自愿报告制度，并反映了政府对解决这一可怕犯罪的承诺。

向国家犯罪署提交的报告将需要满足一套明确的标准，以确保执法部门收到所需的高质量信息，以保护儿童，追捕罪犯，并通过防止非法内容的持续再流通来限制终身受害。法案管辖范围内的公司将需要证明在英国以外的现有报告义务，以免除这一要求，这将避免公司的重复工作。

3

英国各方的评价

英国数字大臣Nadine Dorries评价说：“互联网已经改变了人民的生活，使之更加美好。它将我们紧密联系起来，并赋予我们更多自由与娱乐。但是，在另一方面，当科技公司在其产品上运用技术尤其是算法进行伤害、虐待和犯罪行为时，它们却没有被追究相应地责任。当伤害、虐待和犯罪行为在他们的平台上肆虐时，科技公司也没有承担相应的职责，相反，这些行为还被他们留作自己的数据与业绩。既然人们在开车时会系上安全带以保护自己，为何人们在上网时候不会考虑到相应的行为风险呢？考虑到网上的所有风险，唯一明智的做法是：我们要为网络信息系好“安全带”，确保为数字时代提供类似功能的基本保护。如果我们不采取行动，我们就有可能牺牲无数代人的福祉；如果算法不被约束，我们就会牺牲无数代儿童的纯真。自上任以来，我听取了政界、更广泛的社会各界人士的意见所以修订通过了该法案，目的就在于希望能够实现我们的核心目标：使英国成为一个最安全的上网国家。”

英国政府认为，科技产业在投资和创新方面正在开辟一条道路。该法案对低风险的科技企业和有在线业务的非科技企业给予豁免，是平衡和相称的。它旨在提高人们对技术的信任，这将反过来支持其雄心壮志：即使英国成为科技企业发展的最佳场所。

该法案将加强人们在网上自由表达自己的权利，并确保社交媒体公司不会取消合法的自由言论：如果用户认为他们的帖子被不公平地删除，他们将首次有权提出上诉。它还将对社交媒体公司提出要求，以保护其平台上的新闻和民主政治辩论。新闻内容将被完全豁免于该法案的任何监管。而且，在进一步促进网上言论自由方面，这项法案的另一项重大改进将意味着社交媒体平台只需处理“合法但有害”的内容，如那些有关自我伤害、骚扰和推广饮食失调的内容暴露。

不过，议会仍将继续考虑如何确保平台不从公认的媒体机构删除内容的问题。安全与边境事务国务部长Damian Hinds认为：“作为一个社会和个人，互联网拓宽了我们的视野，为我们提供了连接全球的新机会。但与此同时，最堕落的犯罪分子也获得了新的渠道，可以利用脆弱的群体去破坏人类生活，如利用儿童的纯真去窃取信息或利用人们的无知去破坏财务。我们最优先考虑的是保护儿童和确保公众安全。开创性的《在线安全法案》将确保社交媒体公司最终被追究责任，并使它们对我们所有人的生活产生的巨大影响承担起责任。欺诈者将不再有地方可以躲藏，虐待者将被积极追捕，所有侵权者都会感受到法律的全部力量。”

通信管理局首席执行官Dame Melanie Dawes女士说：“今天标志着为英国的儿童和成人创造更安全的网络生活迈出了重要一步。我们的研究表明，需要制定保护用户免受严重伤害的规则，但也要重视上网的好处，包括言论自由。我们期待着开始这项工作。”

莫莉-罗斯基金会（Molly Rose Foundation）的Ian Russell表示：“莫莉-罗斯基金会和莫莉的家人敦促议员们为所有人提供一个更安全的互联网，特别是我们的年轻人。在线安全法案在议会的讨论是朝着结束科技自律的破坏性时代迈出的又一重要步骤。越来越多的人提醒我们，有害的在线内容所造成的后果是可怕的。即使是国家和政府也很难保护自己免受数字技术的破坏性使用，所以我们必须做得更多，以保障我们的年轻人和弱势群体的生活。现在是时候让我们离线民主国家的法律、法规和自由在数字领域得到反映了。”

4

一些疑惑

该法案中规定了一系列与互联网信息内容本身有关的安全规则，英国议会将由此批准哪些类型属于其所规制的对象—— 即“合法但有害”的内容。它要求科技巨头在合规的情况下承担内容审查责任，它将保护儿童免受色情等有害内容的影响，它会限制人们接触那些有害的内容、同时保护言论自由。英国政府认为，法案的实施会使互联网用户离更安全的网络环境又近一步。

然而我们可以看到，与美国七部平台反垄断法案一样：由此依法赋予政府审查与决定何为“合法但有害”的言论，并由此发展适合其政治目的的言论自由。自俄乌开战以来，大批西方媒体借助互联网公司的力量，推行其意识形态与战争的正当性、正义性；全球新冠疫情肆虐以来，西方媒体对于中国防疫抗疫政策的宣传也多有扭曲、甚至颠倒黑白之举，互联网的生态开放本应该是其本质，但是如果这种开放是有选择的、有限度的、甚至有倾向性的，互联网平台与技术不仅不会造福人类、不会达成交流，反而可能会成为助长仇恨、宣扬战争的武器。

特附独家中文译本，原法案长达200多页，其中有关内容审查的内容与机制极其丰富，供各位参考。原创不易，谢绝一切未经授权的搬运。

独家中文译本

END

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过300人。关于DPO社群和沙龙更多的情况如下：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

DPO线下沙龙的实录见：

个人数据与域外国家安全审查系列文章

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

关于美国出口管制制度，本公号发表过系列文章：

供应链安全文章：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

健康医疗大数据系列文章：

网联汽车数据和自动驾驶的系列文章：

网络空间的国际法适用问题系列文章：

关于欧盟技术主权相关举措的翻译和分析：

关于保护网络和信息系统安全的相关文章包括：

中国个人信息保护立法的相关文章包括：

《网络数据安全管理条例（征求意见稿）》系列文章：

《数据安全法》的相关文章包括：

关于健康医疗数据方面的文章有：

关于中美与国家安全相关的审查机制，本公号发布过以下文章：

数据的安全、个人信息保护、不正当竞争等方面的重大案例：

关于数据执法跨境调取的相关文章：

数字贸易专题的系列文章有：

赴美上市的网络、数据安全方面的两国监管乃至冲突方：

个性化广告或行为定向广告（behavioral targeting advertising）系列的文章：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

关于我国的《个人信息保护法》的相关文章包括：

围绕着美国方面的个人信息保护立法，本公号发表了以下文章：

关于人工智能安全和监管，本公号发布过以下文章：

关于数据要素治理的相关文章包括：

业务场景中的数据跨境流动的文章如下：

地缘政治与跨国科技公司运营之间的互动影响：

人脸识别系列文章：